Ông tên thật là Phan Đình Dinh, quê làng Địch Lễ, xã Nam Vân, huyện Nam Trực, tỉnh Nam Định (nay là xã Nam Vân, thành phố Nam Định, tỉnh Nam Định). Ông sinh trưởng trong gia đình nhà nho nghèo, cha mất sớm, mẹ ông đã tần tảo nuôi 8 người con. Ông là em trai của Lê Đức Thọ và là anh trai của Đại tướng Mai Chí Thọ.

Ông tham gia hoạt động cách mạng[2] từ năm 1930. Năm 1939, ông được kết nạp vào Đảng Cộng sản Đông Dương. Ông bị Pháp bắt giam 2 lần vào năm 1930 và 1940. Sau khi được trả tự do, ông tiếp tục hoạt động Cách mạng.

Từ 1944 đến 1945, ông tham gia Ban cán sự tỉnh, rồi Bí thư tỉnh uỷ Vĩnh Yên; Bí thư tỉnh uỷ kiêm Chủ tịch tỉnh Bắc Giang; Uỷ viên thường vụ Khu uỷ Khu I; Uỷ viên Khu uỷ Khu Việt Bắc.

Năm 1950, ông chuyển vào quân đội làm cục trưởng cục Vận tải quân sự (1950- 1955).

Từ 1955 đến 1957, ông đảm nhận chức Phó Chủ nhiệm Tổng cục Cung cấp.

Từ 1957 đến 1964, ông chuyển ngành làm Thứ trưởng Bộ Công thương, sau đổi tên thành Bộ công nghiệp nặng (1960), Giám đốc kiêm Bí thư Đảng ủy Khu công nghiệp Gang thép Thái Nguyên.

Năm 1965, ông trở lại quân đội, là Ủy viên dự khuyết Ban Chấp hành Trung ương Đảng Cộng sản Việt Nam, Uỷ viên Quân uỷ Trung ương, với cương vị là Chủ nhiệm Tổng cục Hậu cần, ông được giao trọng trách tổ chức nâng cấp tuyến hậu cần chiến lược Bắc- Nam, tăng năng lực chi viện cho chiến trường miền Nam. Đồng thời từ năm 1866 đến 1972, ông ông được Chính phủ giao tiếp tục xây dựng ngành cơ khí luyện kim, với cương vị là Chủ nhiệm Tổng cục Hậu cần kiêm Thứ trưởng (1966- 1969), rồi Bộ trưởng Bộ cơ khí và luyện kim (1969-1972).

Từ 1972 đến 28/3/1974, Chủ nhiệm Tổng cục Hậu cần - kiêm Quyền Bộ trưởng Bộ giao thông vận tải.

Từ 1974 đến 1976, ông là Thứ trưởng Bộ Quốc phòng, Phó Chủ nhiệm Uỷ ban Kế hoạch nhà nước kiêm Chủ nhiệm Tổng cục Hậu cần và Chủ nhiệm Tổng cục Kỹ thuật.

Từ 1976 đến 1980, ông là Bộ trưởng phụ trách dầu khí.

Từ 7/2/1980 đến 23/4/1982, ông là Bộ trưởng Bộ Giao thông Vận tải.

Từ 1982 đến 1986, ông là Thứ trưởng Bộ Quốc phòng.

Ông được phong quân hàm Thiếu tướng tháng 4 năm 1974, Trung tướng năm 1984 và Thượng tướng tháng 12 năm 1986.

Tại Đại hội Đảng lần thứ III (nhiệm kỳ 1960-1976), ông được bầu làm Ủy viên dự khuyết Ban Chấp hành Trung ương Đảng Cộng sản Việt Nam.

Tại Đại hội Đảng lần thứ IV (nhiệm kỳ 1976-1982), ông được bầu làm Ủy viên Ban Chấp hành Trung ương Đảng Cộng sản Việt Nam.

Ông qua đời ngày 21 tháng 12 năm 1986, hưởng thọ 72 tuổi.